人工智能网致力于为中国广大企业、企业家和商界、经济界人士,以及全球华人经济圈提供实时、严谨、专业的财经、产业新闻和信息资讯媒体。

当前位置:人工智能网 > 智能教育 > 技术与规则联动 应对人工智能发展挑战

技术与规则联动 应对人工智能发展挑战

来源:互联网作者:王林更新时间:2021-04-16 11:15:03阅读:

国外有IBM沃森的医疗AI产品做出错误诊断并开出不安全药物的教训,国内有杭州动物园发生的“中国人脸识别第一案”的案例……近年来,人工智能的监管问题已成为其发展道路上不可忽视的关键问题。

4月12日,“AI可信专题论坛”在上海召开,专家们围绕人工智能是否可信这一关键问题展开了深入探讨。中国科学院院士何积丰指出:“技术的发展从来都是一把双刃剑,人工智能在给人类社会带来便利的同时,也带来了新的安全问题及风险。”

“人工智能发展仍旧面临诸多挑战。”京东集团技术委员会主席、京东人工智能研究院院长周博文指出,真实世界环境开放、边界和规则模糊、数据噪音多、AI模型的部分结果难以信赖等引发的问题层出不穷。如智能摄像头将公交车上的广告人物识别为闯红灯者、AI写作软件创作核材料被盗的假新闻、智能音箱建议使用者自杀等,这些人工智能暴露的问题已经逐渐与人们的生活密切相关。

复旦大学计算机学院院长姜育刚指出,要通过“技术 规则”双轮驱动算法治理。“技术与规则联动,一方面研究更符合规则的人工智能算法,发展评估技术以度量现有人工智能算法的合规程度;另一方面通过规则自顶向下约束人工智能技术活动牵引其健康发展。”

清华大学人工智能国际治理研究院副院长梁正对该会议上发布的《人工智能治理框架与实施路径》报告内容进行介绍时表示,当前人工智能治理的挑战主要集中于三个方面:数据、算法、平台等新兴治理对象的涌现使得追责的难度不断增大;人工智能技术的发展和应用场景的拓宽使得潜在的重大技术、经济和道德风险开始冲击人类社会现存的价值体系和竞争格局;现存的法律、监管制度供给的缺陷和全球范围内灵活、有效治理机制的缺失问题进一步凸显。

“在治理过程中,除了应对以上挑战所带来的风险外,还须实现发展与治理的平衡,既要避免规范不足导致的社会问题,也要避免过度监管阻滞技术的发展。”梁正说。

标题:技术与规则联动 应对人工智能发展挑战

地址:http://ai.rw2015.com/edu/7788.html

免责声明:人工智能网为网民提供实时、严谨、专业的财经、产业新闻和信息资讯,更新的内容来自于网络,不为其真实性负责,只为传播网络信息为目的,非商业用途,如有异议请及时联系站长,本网站将立即予以删除!。

返回顶部